Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

Центр безопасности и новых технологий (CSET). Мэтени руководил центром два года, после чего перешел в администрацию Байдена советником по технологической безопасности, а затем возглавил корпорацию RAND. И он сам, и CSET сыграли ключевую роль в разработке исторического указа Байдена об ИИ – первого серьезного ответа американских властей на революцию искусственного интеллекта.

По рекомендации Карнофски Тонер обсудила с Альтманом свое возможное вступление в совет директоров, после чего прошла официальные собеседования с другими членами совета и в 2021 году заняла кресло Карнофски.

Члены совета директоров OpenAI, Inc, присутствовавшие на первой демонстрации GPT–4, были потрясены возможностями модели. Годом ранее Альтман с Брокманом ездили в Сиэтл на встречу с Биллом Гейтсом, в ходе которой поинтересовались, чем можно его по-настоящему впечатлить. Ответ Гейтса: модель должна получить высший балл на экзамене AP Bio[336]. Теперь модель справлялась не только с этим – она умела программировать и рассказывать анекдоты. Брокман, проводивший демонстрацию, попросил ее пошутить про Гэри Маркуса – почетного профессора Нью-Йоркского университета и одного из главных критиков OpenAI. Шутка вышла убойная. Совет начал готовить запуск GPT–4. Тогда казалось, что релиз пройдет по накатанной схеме: пользователи будут подавать модели примеры нужного формата – вопросы с ответами или код, чтобы получить желаемый результат.

Пока OpenAI доводила до ума GPT–4, Мурати (в мае 2022 года ее назначили техническим директором) вместе с ведущими исследователями экспериментировала с чат-интерфейсом Шульмана. Изначально это был инструмент безопасности – способ убедиться, что новая модель ведет себя адекватно. Иногда на встречах с клиентами команда показывала чат-интерфейс под конец – просто посмотреть на реакцию. На одной встрече, формально посвященной DALL-E, клиент пришел в такой восторг от чата, что команда вернулась в офис, еще отчетливее понимая: их инструмент безопасности оказался куда привлекательнее, чем они думали. Когда в августе GPT–4 завершила обучение, запуск с чат-интерфейсом наметили на январь. Но чем больше людей тестировало систему, тем сильнее менялись планы.

«Этот чат-интерфейс – штука куда более серьезная, чем кажется, – вспоминает свои размышления Альтман. – Я наблюдал, как люди им пользуются. Замечал, как сам к нему привыкаю. И понял – надо разделить эти две вещи».

Альтман рассудил: два прорыва одновременно – интеллект GPT–4 на уровне студента-отличника плюс на удивление живой чат – это слишком сильный удар для неподготовленного мира. «Выпускать GPT–4 вместе с чат-интерфейсом – и, оглядываясь назад, я уверен в правильности решения – означало бы обрушить на мир слишком много нового разом. Лучше дать людям что-то промежуточное». Ходили слухи (оказавшиеся правдой), что конкурент Anthropic уже создал собственного чат-бота по имени Claude и просто дожидается результатов тестов безопасности для запуска.

GPT–4 планировали выпустить сразу после Нового года, так что чат-интерфейс на базе старой модели идеально было бы запустить чуть раньше. Но, как заметил Альтман, «под праздники ничего не запускают», и он настоял провести релиз чата пораньше – в ноябре, сразу после Дня благодарения. «Я, помню, сказал: “Я хочу это сделать, и хочу это сделать быстро”».

Все выглядело настолько буднично – формально это было всего лишь «исследовательское превью», что продукту хотели дать незамысловатое имя: Chat with GPT 3.5. «OpenAI, конечно, славится дурацкими названиями, – признал Альтман. – Но это имя совсем никуда не годилось». Остановились на ChatGPT.

30 ноября 2022 года Альтман опубликовал короткий твит в своем фирменном стиле – все буквы строчные: «сегодня мы запустили ChatGPT попробуйте поговорить с ним тут: chat.openai.com». И скромно добавил: «это ранняя демоверсия возможностей (и еще куча ограничений – чисто исследовательский релиз)»[337],[338]. Первый комментатор, основатель ИИ-стартапа, был настроен скептически: «мне нравятся ваши амбиции и концепция, но при нынешних технологиях это ваш худший продукт»[339]. На этом скептицизм закончился. Дальше пошли все более восторженные скриншоты: люди просили бота сделать их домашнее задание, найти клитор и объяснить смысл жизни. «Уже вижу, как тысячи профессий заменят этой штукой, – написал один разработчик. – В итоге люди будут нужны только для обнимашек и секса»[340].

В OpenAI были озадачены такой реакцией. Технология, лежащая в основе ChatGPT, была доступна уже два года, а обновленную модель подключили к API почти год назад. Теоретически любой желающий мог создать ChatGPT самостоятельно – просто прикрутить чат к модели, которую продавала OpenAI. Но в чат-интерфейсе было что-то особенное. «Чисто технические возможности, если судить по стандартным бенчмаркам, у моделей почти одинаковые. Но ChatGPT доступнее и удобнее в использовании», – объяснял Джон Шульман в интервью MIT Technology Review[341]. Внутри самой компании ChatGPT считался такой ерундой – с точки зрения и технологий, и безопасности, что Альтман даже не предупредил совет директоров о запуске.

К январю у ChatGPT было уже 100 миллионов пользователей – абсолютный рекорд скорости роста среди потребительских технологий[342].

«Видно было, что он понятия не имел, какого джинна выпускает из бутылки, – вспоминает друг Альтмана Брайан Чески. – Как будто человек изобрел огонь и собирается подарить его миру, не осознавая, что теперь можно будет с его помощью готовить пищу, согреваться и отгонять хищников. Он и его коллеги были настолько погружены в продукт, что не видели общей картины».

Запуск ChatGPT дал старт той самой гонке ИИ-технологий, которую устав OpenAI обещал предотвратить. За считаные часы пользователи поняли, какую угрозу он представляет для Google Search – продукта, безраздельно царившего в технологиях больше двух десятилетий. И в Google с Microsoft это тоже прекрасно понимали.

Google объявил «красный код» – команды побросали все текущие проекты и в авральном режиме начали встраивать генеративный ИИ во все свои продукты. Об этом стало известно из просочившихся в The New York Times аудиозаписей и служебных записок. Ирония судьбы: Google годами лидировал в ИИ благодаря покупке DeepMind и революционной статье о трансформерах от собственного подразделения Google Brain.

Риски преждевременного выпуска чат-ботов были знакомы техгигантам не понаслышке. В 2016 году в Microsoft запустили чат-бота Tay, обучавшегося на данных из «Твиттера». Меньше суток понадобилось пользователям, чтобы научить его материться и выдавать антисемитские тирады. Исследователь Даниэль Де Фрейтас из Google Brain в 2020 году создал чат-бота Meena с 2,6 миллиарда параметров, натренированного на диалогах в соцсетях. Но Google запретил публичный релиз, сославшись на безопасность. Команда продолжила работу при участии Ноама Шазира – одного из авторов той самой статьи Google Brain о трансформерах. Модель переименовали в LaMDA (Language Models for Dialog Applications). Эта модель стала предметом ожесточенных споров. В 2020 году известного исследователя этики ИИ Тимнит Гебру уволили – по ее словам, за отказ отозвать статью «Стохастические попугаи», где поднимались неудобные вопросы о рисках больших языковых моделей вроде LaMDA. Google утверждал, что никого не увольнял: просто статья «не дотягивала» до их стандартов. А в 2022 году уволили исследователя Блейка